在大数据环境下，针对传统恶意文件检测方法对经过代码变种和混淆后的恶意文件检测准确率低以及对跨平台恶意文件检测通用性弱等问题，提出一种基于图像纹理和卷积神经网络的恶意文件检测方法。首先，使用灰度图像生成算法将Android和Windows平台下可执行文件，即.dex和.exe文件，转换成相应的灰度图像；然后，通过卷积神经网络（CNN）算法自动提取这些灰度图像的纹理特征并加以学习训练，从而构建出一个恶意文件检测模型；最后，使用大量未知待检测的文件去验证模型检测准确率的高低。通过对大量的恶意样本进行实验，在Android和Windows平台下，模型检测最高准确率分别达到79.6%和97.6%，平均准确率分别约为79.3%和96.8%；与基于纹理指纹的恶意代码变种检测方法相比，基于图像纹理和卷积神经网络的恶意文件检测方法准确率提高了约20%。实验结果表明，所提方法能够有效避免人工筛选特征带来的问题，大幅提高检测的准确率和效率，成功解决跨平台检测问题，实现了一种端到端的恶意文件检测模型。